Trong cuộc cải tổ hành chính của Pyotr Đại đế, Thượng viện được thành lập nhưng còn mang tính chất nô bộc. Sheremetev cùng với các cận thần thân tín khác của Pyotr – Aleksandr Danilovich Menshikov, Fyodor Matveyevich Apraksin, Gavrila Ivanovich Golovkin – đều không nằm trong Thượng viện. Các "siêu đại thần" này có thể gửi chỉ thị cho Thượng viện "qua lệnh của Hoàng thượng." Tuy nhiên, trong những cuộc cải cách hành chính bắt đầu từ đầu thập kỷ 1710, có lẽ vì vẫn mang tư cách một chiến binh chuyên nghiệp và tuổi đã khá cao (trên dưới 60), nên Sheremetev không tạo dấu ấn đáng kể trong hệ thống chính quyền.